Ngày 20 tháng 9 năm 1954, tại phiên họp thứ nhất Đại hội Đại biểu Nhân dân Toàn quốc Trung Quốc thông qua Hiến pháp Cộng hòa Nhân dân Trung Hoa, trong đó điều 20 quy định "Lực lượng vũ trang nước Cộng hoà nhân dân Trung Hoa thuộc về nhân dân". Điều 42 quy định "Chủ tịch Cộng hòa Nhân dân Trung Hoa là người chỉ huy lực lượng vũ trang toàn quốc, kiêm nhiệm Chủ tịch Ủy ban Quốc phòng". Điều 49 khoản 14 quy định, Quốc vụ viện "xây dựng lãnh đạo lực lượng vũ trang".

Ngày 28 tháng 9 năm 1954, Ủy ban Quân sự Trung ương Đảng Cộng sản Trung Quốc được tái lập, Chủ tịch Ủy ban Trung ương Đảng Cộng sản Trung Quốc Mao Trạch Đông đảm nhiệm Chủ tịch, thực tế trong Hiến pháp quy định Chủ tịch nước tới Quốc vụ viện quyền lãnh đạo lực lượng vũ trang. Ngày 17/1/1975, tại phiên họp thứ nhất Đại hội Đại biểu Nhân dân Toàn quốc khóa IV thông qua sửa đổi Hiến pháp, điều 15 quy định "Quân Giải phóng Nhân dân Trung Quốc và Dân binh là con em của giai cấp công, nông được Đảng Cộng sản Trung Quốc lãnh đạo, là lực lượng vũ trang các dân tộc nhân dân", "Chủ tịch Ủy ban Quân sự Trung ương Đảng Cộng sản Trung Quốc là thống soái lực lượng vũ trang toàn quốc". Ngày 5/3/1978, tại phiên họp thứ nhất Đại hội Đại biểu Nhân dân Toàn quốc khóa V thông qua sửa đổi Hiến pháp, điều 19 quy định "Chủ tịch Quân ủy Trung ương Trung Cộng là thống soái lực lượng vũ trang Cộng hòa Nhân dân Trung Hoa".

Tại Hội nghị toàn thể thứ 3 Ủy ban Trung ương Đảng khóa XI, đưa ra "Phát triển Xã hội Chủ nghĩa Dân chủ, kiện toàn Xã hội Chủ nghĩa pháp chế, cải cách hoàn thiện chế độ lãnh đạo của Đảng và Nhà nước", yêu cầu được đưa ra dẫn tới Hiến pháp phải sửa đổi lại. Sau một thời gian làm việc hiệp thương giữa các Đảng phái, tổ chức và các đoàn thể đồng thời lắng nghe từ các nhân sĩ trí thức, năm 1982, Ủy ban Trung ương Đảng quyết định thành lập Ủy ban Quân sự Trung ương Cộng hòa Nhân dân Trung Hoa lãnh đạo lực lượng vũ trang toàn quốc. Đầu tháng 4/1982, quyết định được ghi vào dự thảo Hiến pháp.

Quyết định thành lập Ủy ban Quân sự Quốc gia gây chấn động mạnh trong nước và quốc tế. Trong lực lượng vũ trang, việc thành lập Ủy ban Quân sự Quốc gia là thay đổi nguyên tắc, đồng thời nghi ngờ sự lãnh đạo toàn diện của Đảng Cộng sản Trung Quốc với lực lượng vũ trang. Để thống nhất lực lượng quân sự và Đảng, Ủy ban Trung ương Đảng quyết định cho Bành Chân thay mặt Ủy ban Trung ương Đảng soạn thảo "Dự thảo sửa đổi Hiến pháp quyết định thành lập Ủy ban Quân sự Trung ương" từng bước tuyên truyền trong quân đội.

Thông báo việc thành lập Quân ủy Trung ương Trung Quốc không làm suy yếu hay bãi bỏ vai trò lãnh đạo của Đảng trong quân đội, sau khi thành lập Ủy ban Quân sự Trung ương Trung Quốc, Ủy ban Quân sự Trung ương Trung Cộng vẫn là cơ quan lãnh đạo quân sự trực tiếp của Ủy ban Trung ương Đảng, Chủ tịch Quân ủy Trung ương Trung Cộng sau đó được Đại hội Đại biểu Nhân dân Toàn quốc bầu làm Chủ tịch Quân ủy Trung ương Quốc gia, Quân ủy Trung ương Trung Cộng và Quân ủy Trung ương Quốc gia thực tế là "một cơ quan hai tên gọi", việc lãnh đạo và chỉ huy quân đội dễ dàng hơn. Thông báo cũng cho biết rằng các quy định sửa đổi Hiến pháp của Quân ủy Trung ương Quốc gia là cơ quan lãnh đạo lực lượng vũ trang toàn quốc, Chủ tịch phụ trách điều hành, cho rằng Chủ tịch Quân ủy Trung ương Quốc gia là người đứng đầu lực lượng vũ trang toàn quốc chứ không phải là Chủ tịch nước, Chủ tịch nước là nguyên thủ quốc gia không phụ trách nhiệm vụ cụ thể. Dự thảo sửa đổi Hiến pháp quy định Quốc vụ viện lãnh đạo và quản lý xây dựng sự nghiệp Quốc phòng, Quốc vụ viện thiết lập Bộ Quốc phòng, Bộ Quốc phòng hoạt động dưới chỉ đạo trực tiếp từ Quân ủy Trung ương Trung Cộng.

Sau 4 tháng thảo luận, Ủy ban Tu chính Hiến pháp sau khi thảo luận giữa giới quân sự và lãnh đạo quyết định nhiệm kỳ của Ủy ban Quân sự Trung ương Quốc gia trùng với nhiệm kỳ của Đại hội Đại biểu Nhân dân Toàn quốc, Chủ tịch Quân ủy Trung ương không hạn chế nhiệm kỳ, Chủ tịch Quân ủy Trung ương Quốc gia chịu trách nhiệm báo cáo công tác hoạt động trước Ủy ban Thường vụ Đại hội Đại biểu Nhân dân Toàn quốc.

Ngày 4/12/1982, tại phiên họp thứ 5 Nhân Đại khóa V thông qua Hiến pháp mới trong đó Quân ủy Trung ương Quốc gia đã được quy định tại chương IV "Quân ủy Trung ương"